AI 图片制作

文生图 / 图生图能力拆分文档 —— 原理 · 模型与 API 格局 · 工作流 · 角色一致性 · 落地

1. 能力总览与原理

能力定义:AI 图片制作 = 文生图(文字→图片)、图生图(参考图→新图:改风格、局部重绘、扩图、放大)与对话式改图(多轮自然语言编辑同一张图)。典型用途:海报、电商图、概念设计、漫剧角色定稿、UI 素材。

原理:成品级图片生成全部走扩散模型路线——把随机噪声在隐空间里逐步"去噪"还原成图片。2026 年主流架构是 DiT(扩散 Transformer)+ 流匹配:用 Transformer 替代早期 U-Net 做去噪骨干,扩展性与画质更好。多模态 LLM(GPT-5.6 等)则把生图封装成内置工具:LLM 负责"理解需求 + 规划",需要作图时调用扩散模型渲染——"LLM 理解 + 扩散生成"是工业界主流分工,自回归直接生成像素效率低、质量差。

PlantUML diagram
图1:AI 图片生成技术栈(组件图)
路线说明代表
云 API(闭源模型)按张计费,无需显卡,适合产品集成与自动化流水线OpenAI Images API、即梦/可灵/万相、Gemini
开源自部署权重公开免费,可控性最强(LoRA/ControlNet),需要自己扛 GPUFLUX、SD 系(本地 ComfyUI 或 Replicate/fal 云调用)
终端产品(人工操作)订阅制网页/App 工具,面向人而不是代码Midjourney(无公开 API)、即梦 App
名词解释
扩散模型(Diffusion Model):生成式模型的一种,先把真实图片逐步加噪变成纯噪声,再学会反过来"去噪",从随机噪声还原出图片。Stable Diffusion、Midjourney、即梦的底层都是它。
DiT(Diffusion Transformer):用 Transformer 架构做扩散模型的去噪骨干,比早期 U-Net 更可扩展,是 2025 年以来文生图/文生视频的主流架构。
流匹配(Flow Matching):训练扩散模型的一种方法,学习噪声到数据的"流动路径",比传统 DDPM 训练更稳、采样更快。
隐空间(Latent Space):压缩后的低维特征空间,先在隐空间去噪再解码回像素,大幅省算力。

2. 模型与 API 格局

海外:OpenAI 的 Images API 是产品集成首选——现役模型 gpt-image-2(官方目录中的 SOTA 文生图模型),支持 generations(生成)/ edits(编辑)两个端点,也能在 Responses API 里当内置工具调用,让 LLM 在对话中"边想边画"、多轮改图、流式输出。注意旧版正在淘汰:gpt-image-1 于 2026-10-23 关停、gpt-image-1.5 与 gpt-image-1-mini 于 2026-12-01 关停,官方推荐统一替换为 gpt-image-2。Google 走 Gemini 原生生图路线(图理解与生图同一模型)。Midjourney 画质美学强但不提供公开 API,只能订阅使用。

国产:即梦(字节)、可灵(快手)、通义万相(阿里)、豆包、文心一格、CogView(智谱)都提供云 API,约 ¥0.1–0.5/张,中文语义理解好、价格约为海外几分之一、合规无忧,是国内业务的默认选择。

开源:FLUX(Black Forest Labs)与 SD 系(Stable Diffusion,Stability AI)是开源文生图两大代表(FLUX 画质更高、SD 生态更大),可本地部署或经 Replicate/fal 按次云调用,配合 LoRA/ControlNet 可控性最强。

2.1 API 选型对比

模型 / API获取方式成本特点与适用
OpenAI gpt-image-2Image API(generations/edits)+ Responses API 内置工具按张计费(以官方定价页为准)对话式多轮改图、掩码局部重绘、流式生成;Agent"边想边画"首选;旧版 1/1.5/mini 将于 2026-10/12 关停
Gemini 原生生图Gemini API按张计费图理解 + 生图同模型,多模态上下文长
即梦 / 可灵 / 万相 / 豆包 / 文心一格 / CogView各家云 API约 ¥0.1–0.5/张中文提示词友好、便宜、稳定合规;国内业务默认
FLUX / SD 系(开源)ComfyUI 本地跑(需显卡)或 Replicate / fal.ai 按次本地≈电费;云按次付费免费、可控性最强:LoRA 定制风格/角色、ControlNet 控构图,适合批量产线与风格锁定
Midjourney无公开 API,仅订阅$10+/月美学质量高,人工操作;要编程集成请改用上面几家
名词解释
Responses API:OpenAI 的统一模型调用接口,模型可在回答中自动调用内置工具(生图、搜索、代码解释器等)。
generations / edits:Images API 的两个端点——generations 从文字直接生成;edits 传入原图 + 掩码做局部重绘/扩展。

3. 文生图工作流

标准流程:明确需求(风格/尺寸/用途)→ LLM 辅助扩写提示词 → 调 API 生成 → 不满意就多轮编辑(对话式改图或 inpaint 局部重绘)→ 需要角色一致性就挂 IP-Adapter/LoRA → 放大与后处理 → 交付。生成的图片 URL 通常限时有效,生产环境要及时转存到自己的对象存储。

PlantUML diagram
图2:文生图标准工作流(活动图)

API 调用示例(OpenAI Images API,其余厂商结构类似):

curl https://api.openai.com/v1/images/generations \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-image-2",
    "prompt": "赛博朋克风格城市夜景海报,霓虹灯,雨后地面反光,竖版",
    "size": "1024x1536"
  }'
# 返回 base64 图片数据;编辑走 /v1/images/edits(原图+掩码+指令)
# Responses API 中作为内置工具:LLM 在对话里自动决定何时作图、多轮修改
名词解释
提示词(Prompt):描述画面内容的文字。专业写法 = 主体 + 风格 + 构图 + 光照 + 质量词,LLM 可代写扩写。
局部重绘(Inpainting):用掩码圈住图中区域,只重画被圈部分,其余保持不变。
放大(Upscale):把小图超分成高分辨率大图(如 4K),供印刷或大屏使用。

4. 角色一致性

问题:扩散模型每次生成都是重新"去噪",同一个角色画两次脸就变了——而漫剧、绘本、IP 周边需要角色跨图一致。

解法(按可控性排序):

名词解释
IP-Adapter:Image Prompt Adapter,把参考图特征作为额外条件注入扩散模型,实现"照着这张图生成"。
LoRA(Low-Rank Adaptation):不动大模型权重、只训练一个几 MB~几百 MB 小补丁的微调方法,用于锁定角色/画风。
ControlNet:用姿态线稿/深度图/边缘图控制构图的可控生成插件。

5. 终端产品 vs API

区分"终端产品"与"底层模型/API":Midjourney、即梦 App、可灵 App 是终端产品——面向人的订阅/网页工具,人不通过它调代码;底层模型/API(FLUX/SD、万相、gpt-image-2 等)才是可编程集成的能力。做产品/自动化流水线选 API,人工创作选终端产品。Midjourney 无公开 API,只有订阅产品。
"FLUX / SD 系"是什么?FLUX(Black Forest Labs)与 SD(Stable Diffusion,Stability AI)是两家公司的开源文生图模型——免费、可本地部署。使用方式两种:本地用 ComfyUI 工具加载权重跑(需要显卡);云端通过 Replicate / fal.ai 等平台按次付费调 API(不用自己买显卡)。一句话:FLUX/SD 是模型,ComfyUI 是本地运行工具,Replicate/fal 是云调用平台。

6. 典型场景与落地建议

场景做法推荐 API
海报 / 电商图LLM 写提示词 → 批量生成 → inpaint 换背景/改文案位万相 / 即梦(便宜)、gpt-image-2(改图)
概念设计 / 分镜草图对话式多轮改图快速迭代gpt-image-2、Gemini 原生生图
漫剧角色定稿参考图 + IP-Adapter/FaceID 锁角色,每角色 3–5 张参考图FLUX+LoRA(本地)、即梦/可灵
Agent 自动作图LLM 把生图当内置工具,边想边画OpenAI Responses API + gpt-image-2
落地建议(微架构):① 国内业务默认国产 API(¥0.1–0.5/张,合规);② 需要"对话式改图/Agent 作图"才上 gpt-image-2;③ 批量风格化产线(电商、漫剧)用 FLUX/SD + LoRA 自部署,边际成本最低;④ 生成的图 URL 限时有效,务必转存自己的对象存储;⑤ 图片生成是视频流水线的前置环节(角色定稿→图生视频),与《AI 视频制作》配套使用。

本文为《AI 核心应用》按能力拆分的图片制作分册,2026 年 8 月整理。视频制作见《AI 视频制作》,总览见《AI 核心应用》《AI 应用全景》。